Tên gọi đèo Pha Đin nguyên gốc xuất xứ từ tiếng Thái, Pha đin, trong đó Pha nghĩa là "Trời", Đin là "Đất" hàm nghĩa nơi đây là chỗ nơi đất trời gặp nhau.

Người Lai Châu cũ (nay là Điện Biên) và Sơn La từ xa xưa còn lưu truyền câu chuyện kể về cuộc bàn thảo tìm cách vạch định ranh giới của hai địa phương bằng một cuộc đua ngựa vượt dốc Pha Đin. Người và ngựa của cả hai phía đều đồng thời xuất phát từ hai dốc đèo. Hai dũng sĩ và hai con tuấn mã đều có sức mạnh và ý chí như nhau nên khoảng cách mà họ đi được cho tới địa điểm gặp nhau trên đèo không chênh lệch bao nhiêu. Tuy vậy, phần ngựa Lai Châu phi nhanh hơn nên phần đèo thuộc về Lai Châu dài hơn một chút so với phần phía Sơn La[3].